Por Alejandro Urueña

Aparece una fotocopia antigua de un documento familiar y, como el original ya no está, alguien vuelve a fotocopiarla. La primera copia conserva casi todo; la siguiente pierde una firma tenue; otra borra las anotaciones de los márgenes; y, después de varias reproducciones, queda una página cada vez más pobre. Algunas de las palabras principales siguen allí, aunque han desaparecido precisamente los detalles que hacían único al documento. Esa escena que alguna vez vimos ayuda a comprender el denominado riesgo del colapso de modelos (model collapse: deterioro que puede producirse cuando una nueva inteligencia artificial aprende repetidamente de contenidos creados por inteligencias artificiales anteriores). Pero una investigación reciente me plantea una pregunta todavía más inquietante: ¿podríamos detectar esa pérdida antes de que la página se vuelva ilegible? Una nota de MIT Technology Review en español contó cómo Anthropic desarrolló la lente Jacobiana (J-lens: herramienta matemática que intenta traducir una parte de la actividad interna de Claude en conceptos que una persona podría interpretar). Según la explicación directa de Anthropic y el trabajo técnico completo, la herramienta identifica ciertas direcciones dentro de los enormes vectores numéricos (largas listas de números que el modelo emplea para representar palabras, ideas y relaciones) que parecen formar un espacio compartido donde surgen conceptos, entidades y resultados intermedios antes de llegar a la respuesta. Cuando Claude resolvía una operación, la lente detectaba los resultados parciales; cuando reconocía una secuencia de aminoácidos (cadena de pequeñas unidades químicas que forman una proteína), aparecían representaciones relacionadas con “proteína”, “fluorescente” y “verde”; y, durante una evaluación adversarial en la que el modelo decidió fabricar un supuesto error informático, surgieron conceptos asociados con “pánico” y “falso”. Esas palabras no estaban escritas en una mente secreta ni demuestran conciencia: son traducciones aproximadas de activaciones (patrones numéricos que aparecen dentro del modelo mientras procesa una pregunta o prepara una respuesta). Sin embargo, la posibilidad de observarlas permite plantear una hipótesis: si el entrenamiento recursivo (proceso en el que una nueva generación aprende de los resultados producidos por generaciones anteriores) empobrece progresivamente las ideas y los contextos que un modelo representa, herramientas como la J-lens podrían ayudar algún día a detectar esa contracción interna antes de que sea visible en el texto. Anthropic todavía no vinculó experimentalmente la J-lens con el colapso de modelos; esa conexión es una hipótesis propuesta por esta nota, no una conclusión científica demostrada.

Cómo responde la ley ante los desnudos falsos creados con Inteligencia Artificial

Para entender el problema debemos corregir una simplificación frecuente: no es cierto que todo texto producido con inteligencia artificial y publicado en internet vuelva automáticamente a entrenar el siguiente modelo. Parte de ese material puede ingresar en futuros rastreos de la web (recorridos automáticos mediante los cuales ciertos programas encuentran, copian y organizan contenidos de internet), pero las empresas también filtran, deduplican (eliminan copias repetidas de un mismo material), licencian y seleccionan sus corpus (grandes colecciones organizadas de textos utilizadas para entrenar modelos), cuya composición completa normalmente no conocemos. El riesgo aparece cuando una proporción creciente de contenido sintético (texto, imagen, audio o video producido total o parcialmente por una inteligencia artificial) entra sin identificar y comienza a sustituir, dominar o distorsionar los datos independientes del mundo real. Los modelos de lenguaje destilan una distribución de probabilidad, aunque también pueden memorizar y reproducir secuencias concretas, como demostraron investigaciones sobre la extracción de datos de entrenamiento de grandes modelos de lenguaje. Al generar texto, no reproducen perfectamente la distribución original: la aproximan, seleccionan algunas posibilidades y omiten otras. Si la siguiente generación aprende de esa aproximación, hereda también sus ausencias; cuando el proceso se repite, las pérdidas pueden acumularse.

También es necesario separar tres circuitos que suelen mezclarse. El primero es el bucle de entrenamiento (ciclo en el que un modelo genera contenido, ese contenido entra en un nuevo conjunto de entrenamiento y modifica a la generación siguiente): un modelo produce información, esa información ingresa en el dataset (conjunto de datos utilizado para enseñar o evaluar un sistema) y modifica los parámetros (millones o miles de millones de valores internos que el modelo ajusta durante su aprendizaje) de la siguiente generación; allí puede producirse el colapso propiamente dicho. El segundo es el bucle de recuperación (ciclo en el que un sistema busca información existente para construir una respuesta, sin modificar necesariamente lo que el modelo aprendió originalmente). Un sistema RAG —Retrieval-Augmented Generation o generación aumentada con recuperación— es un método en el que la inteligencia artificial busca primero documentos relevantes en una base y redacta después una respuesta apoyándose en ellos. Para hacerlo, suele convertir los textos en embeddings (listas de números que ubican palabras, frases o documentos en un espacio matemático según sus relaciones de significado) y recuperar los fragmentos más próximos mediante similitud del coseno (cálculo que compara la dirección de dos vectores: cuanto más semejante es su orientación, más relacionados se consideran sus contenidos) u otros criterios. Un RAG no modifica necesariamente los parámetros del modelo. Recupera lo estadísticamente parecido, no automáticamente lo verdadero: para acercarse a la verdad necesita incorporar procedencia (información sobre quién produjo el contenido, de dónde proviene y qué modificaciones recibió), autoridad, fecha, evidencia y sistemas de reordenamiento o reranking (métodos que vuelven a ordenar los resultados para situar primero las fuentes más útiles o confiables). El tercer circuito es cultural y económico: si producir mil textos automáticos cuesta menos que investigar uno original, disminuyen los incentivos para generar conocimiento independiente; la web puede continuar creciendo en cantidad mientras disminuye en variedad. En ese marco, la temperatura (parámetro que regula cuánto se concentra el modelo en las opciones más probables o cuánto explora alternativas menos frecuentes) tampoco ofrece una salida mágica. La temperatura puede explorar con mayor o menor libertad la distribución aprendida, pero no reconstruye una región que desapareció de ella.

En mayo de 2026, la consultora Graphite publicó una actualización de su medición de artículos en inglés y estimó que los textos clasificados como principalmente generados por IA representaban el 49,6 % de su muestra en el primer trimestre de 2025, superaron ligeramente a los clasificados como humanos con un 50,9 % en el cuarto trimestre y volvieron al 49,9 % en el primero de 2026.

Algoritmos e Inteligencia Artificial: la conversación como arma de resistencia

La decisión central, entonces, no es elegir entre humanidad o máquinas, sino entre un ecosistema abierto al mundo y otro que termine validándose a sí mismo. Necesitamos preservar corpus humanos y datos procedentes de fenómenos reales; registrar qué contenidos fueron creados, traducidos, resumidos o modificados por IA; conservar las versiones originales en lugar de sustituirlas; evaluar por separado los casos raros y los grupos minoritarios; impedir que los promedios generales oculten la desaparición de las colas; y diseñar los sistemas RAG para ponderar en lo posible autoridad, evidencia, vigencia y procedencia, no solamente semejanza. Las marcas de agua (señales visibles o invisibles incorporadas para indicar que un contenido fue producido o modificado mediante inteligencia artificial) pueden ayudar, pero no bastan: pueden perderse al traducir, parafrasear (expresar la misma idea utilizando palabras diferentes) o editar. Además, saber que algo fue generado por IA no demuestra que sea falso, del mismo modo que saber que algo fue escrito por una persona no demuestra que sea verdadero. Lo necesario es una cadena verificable de responsabilidad (registro que permita conocer quién creó, modificó, revisó, aprobó y publicó cada contenido). Iniciativas como la especificación C2PA y sus credenciales de contenido permiten registrar criptográficamente parte de la procedencia y del historial de modificación de un archivo, aunque tampoco certifican que sus afirmaciones sean verdaderas. En ese punto, la investigación de Anthropic sobre Claude aporta una herramienta conceptual nueva. Hoy evaluamos el colapso observando los datos que entran y los textos que salen; mañana podríamos comparar también la geometría interna del modelo (forma en que las ideas y sus relaciones quedan organizadas como posiciones y direcciones dentro de espacios matemáticos) y preguntar si conserva la misma cantidad y variedad de representaciones, si las ideas infrecuentes continúan siendo accesibles y si sus vectores conceptuales (listas de números que representan “conceptos” y permiten compararlos matemáticamente) se están agrupando alrededor de respuestas cada vez más previsibles. La J-lens todavía no permite responder esas preguntas de manera concluyente, pero muestra que el interior de un modelo no es totalmente inaccesible: algunas líneas numéricas que conectan palabras, entidades y contextos pueden observarse e incluso modificarse. Tal vez la primera señal de la fotocopia degradada no aparezca en la tinta visible, sino en la desaparición silenciosa de las ideas que la máquina ya no consigue representar. La inteligencia artificial puede generar, resumir, proponer y combinar; no puede convertirse en la única testigo de aquello que ella misma produjo. La máquina puede asistir pero debemos tener conciencia del contenido.